Kaganovich sinh năm 1893 với cha mẹ Do Thái [1] ở làng Kabany, Radomyshl uyezd, Kiev Governorate, đế chế Nga (nay là Dibrova, Poliske Raion, Kiev Oblast, Ukraine). Đầu năm 1915, Kaganovich trở thành nhà tổ chức Cộng sản tại một nhà máy giày nơi ông làm việc.

Khoảng năm 1911, ông gia nhập đảng Bolshevik (anh trai Mikhail Kaganovich của ông đã trở thành thành viên vào năm 1905). Năm 1915 Kaganovich bị bắt và đưa về Kabany. Trong tháng 3-tháng 4 năm 1917, ông từng giữ chức Chủ tịch Hiệp hội Tanners và làm phó chủ tịch Liên Xô Yuzovka. Tháng 5 năm 1917, ông trở thành lãnh đạo của tổ chức quân sự của Bolsheviks ở Saratov, và tháng 8 năm 1917, ông trở thành lãnh đạo của Ủy ban Polessky của đảng Bolshevik ở Belarus. Trong Cách mạng tháng 10 năm 1917, ông lãnh đạo cuộc nổi dậy ở Gomel.